2025/05/25

關於類神經網路的一些回憶


這部影片的資訊來源,應該是最近的新書「AI霸主」裡面關於 Ilya 的部份,而影片裡介紹的部分段落,恰好跟我自己的求學經歷有些重疊,想起了一些往事。

大四的時候修了黃榮村老師的選修課,導讀當時(20世紀末)的意識研究。那個學期讀了一堆書跟論文,影印紙疊起來跟人一樣高,我還為了其中一篇189x年的論文,跑去圖書館的儲藏室,影印一篇感覺翻用力一點就會碎掉的期刊論文。讀過的人名很多,像是 Daniel DennettFrancis CrickRamachandranGerald Edelman, Antonio Damasio, David Chalmers, Ned Block, Christof Koch, René Descartes, Roger PenroseStuart Hameroff,還有更多不記得了。

期末最後有同學提問:「關於意識成因的這麼多種說法,老師覺得哪一種比較有可能是對的?」老師思考了一會兒,說:「雖然我個人並不願意承認,但以目前的發展來說,connectism 比較有可能是對的。」(簡單說就是「意識來自神經網路運作的結果」,當時老師戲稱這是「沒有心的心理學」。)

後來服完兵役出國,改念機器學習,當時我跟指導教授說想做類神經網路的研究,老師笑了笑,跟我講述了影片中那段「類神經網路現在正遭遇低谷」的情況,「他們得自己辦一本期刊才能夠發表論文」云云,一模一樣的情景猶如昨日重現。

言猶在耳,20年後的現在,類神經網路改變了整個世界,還一口氣拿了兩座諾貝爾獎,當初誰又預料得到呢?

影裡也提到 Nvidia 的 CUDA,我過往也研究了一段時間的 GPGPU,只是當時選擇了 CUDA 的競爭陣營 OpenCL (我一向都是選 open source 的),然後,就沒有然後了。

如今回頭看,感觸良多。不要說什麼高瞻遠矚、洞燭機先,其實人的選擇都高明不到哪裡去,際遇使然而已,還是活在當下比較實在。

2025/05/22

[摘譯] 如何教孩子數學?科學家發現更好的方法


原文Scientists discover a better way for kids to learn math

研究論文What the Science of Learning Teaches Us About Arithmetic Fluency

摘譯

科學家基於行為實驗、縱向研究、神經影像數據和課堂設計研究的新框架發現,孩子學習數學的更好方法並非單純強調死記硬背或純粹的概念理解,而是一種兩者兼顧的「三階段循環」模式:數學能力始於理解,透過反覆練習提升,並在反思和討論中深化。

研究作者強調,教育者不必在「重複練習」和「課堂討論」之間做出選擇。將短時間、重複的練習,與推理和討論活動結合,能幫助學生將零碎的事實編織成完整的知識脈絡。

神經科學的研究指出,隨著學習的時間推展,兒童大腦的活動模式會從較為費力的推理(系統二),逐漸轉向省力的快速回憶(系統一)。因此,教學方式應在兩種活動之間不斷循環。關鍵在於,要從明確的思考策略教學開始,建立正確性之後,用反覆的計時練習來增強最策略的記憶。而計時練習後,應再次進行小組討論,讓學生解釋題的方法,並將之與更廣泛的概念聯繫起來。

短評:

一般來說,這種「思考」跟「記憶」各打50大板的說法不是很討喜,但這篇研究提出了一個交替使用的策略,並且為這個策略提出合理的解釋,也算是有參考價值。

2025/05/02

[books] 雲端亡魂

 

書名:雲端亡魂

原文書名:The Afterlife of Data: What Happens to Your Information When You Die and Why You Should Care

作者:Carl Öhman


這是剛出爐的新書,主題也很新穎:我們死了以後,遺留下來的數位足跡該怎麼辦

這是一本實打實的倫理學探討,從幾個基本觀點的並陳,到基於不同觀點所能衍伸出作法的探討,觀點涵蓋是否夠全面,目前或許還言之過早(畢竟題目太新了),但絕對反映出了作者身為倫理學領域研究新秀的功底。

曹馭博的中文導讀從自身的相關經驗出發,以相關影視作品為引,切入這本書的核心議題:我們現在就應該開始思考,如何成為一名好祖先。

這本書的核心論點可以歸納為以下三項:

  1. 數位遺骸的特殊倫理地位:逝者留下的數據並非普通資訊,而是構成個體身份延伸的「資訊屍體」,具有持久性,並應享有基於人類尊嚴的倫理對待。
  2. 迫切的治理危機:目前在處理數位遺骸方面存在嚴重的法律空白、所有權不明和倫理規範缺失,導致權力過度集中於缺乏公共責任感的科技平台,並催生了潛藏風險的數位來世產業。
  3. 集體遺產與政治權力:數位遺骸構成了我們這個時代的集體數位遺產,對其的控制權意味著對歷史敘事和未來社會的影響力,這使其成為一個具有重大政治意涵的議題,需要超越純粹商業邏輯的集體管理框架。

作者當然是認為這個議題影響廣泛,需要每個人更主動的參預。無論你同不同意,這本書的論證詳細,邏輯清晰,值得一讀。